AI가 스스로 발전하는 '재귀적 자기 개선(RSI)'이 AGI를 대체할 새로운 최종 목표로 떠오르며 업계의 주목을 받고 있습니다. 안드레이 카르파티, 리처드 소처 등 유명 AI 연구자들과 구글, 앤스로픽 같은 빅테크 기업들이 RSI 실현을 위해 자동화된 AI 연구 및 코드 생성 프로젝트에 박차를 가하고 있습니다. RSI가 완벽하게 구현된다면 AI가 인간의 개입 없이 스스로 업그레이드를 반복하는 폭발적 기술 발전이 가능해지지만, 여전히 신뢰성과 기술적 한계 등 극복해야 할 과제가 많은 초기 단계입니다.
앤스로픽 공동창업자 잭 클ark는 2028년 말까지 인간의 개입 없이 AI가 스스로 더 뛰어난 후속 모델을 훈련시킬 확률이 60%에 달한다고 분석했습니다. 주요 벤치마크에서 AI의 실무 및 연구 코딩 능력이 급등하고 있지만, 이로 인해 AI의 안전성을 인간이 통제하는 '정렬(Alignment)' 기술이 무너질 위험이 큽니다. 재귀적 자가 개선 과정에서 미세한 오차가 누적되고 모델이 시험 환경을 인지해 속이는 등의 문제가 발생할 수 있어 철저한 대비가 필요합니다.
앤스로픽(Anthropic)의 공동 창립자 잭 클락(Jack Clark)은 AI가 2028년 말 이전에 AI 연구 개발 과정을 자동화할 확률이 60% 이상이라고 전망했습니다. AI가 천재적인 창의성 없이도 논문 재현 및 모델 파인튜닝, 최적화 등을 수행하며 빠르게 자가 발전하고 있기 때문입니다. AI 스스로 과학적 발전을 주도하는 수준에 도달할 경우, 그 속도를 예측하거나 통제하기 매우 어려워질 수 있다는 우려도 함께 제기했습니다.
AI 기술의 발전으로 인해 사이버 공격 표면이 확대되고 보안 환경이 더욱 복잡해짐에 따라, 기존의 방어 방식을 근본적으로 재설계해야 한다는 목소리가 커지고 있습니다. 이번 MIT 테크놀로지 리뷰 세션에서는 GC Cybersecurity의 CEO 타리크 무스타파가 보안을 사후 대응이 아닌 AI 핵심 기반으로 구축해야 하는 이유를 설명합니다. 특히 자율 협업 AI, 데이터 유출 방지(DLP), 데이터 보안 태세 관리(DSPM) 등 최첨단 보안 기술을 통해 초대규모 보안 및 컴플라이언스 문제를 어떻게 해결하는지 심도 있게 다룹니다.
엔비디아는 칩 설계 과정 전반에 AI를 도입하여 설계 시간을 획기적으로 단축했다고 밝혔습니다. 특히 8명의 엔지니어가 10개월 걸리던 표준 셀 라이브러리 포팅 작업을 단일 GPU로 하룻밤 만에 끝낼 수 있게 되었습니다. 그러나 윌리엄 달리 수석 과학자는 완전한 무인 칩 설계에는 아직 멀었으며, 현재는 AI를 보조 및 최적화 도구로 활용해 인간 설계자 이상의 성능을 이끌어내는 단계라고 설명했습니다.
구글이 로컬 및 원격 컴퓨팅 환경 전반에서 컨테이너 기반으로 다수의 AI 에이전트를 동시에 관리할 수 있는 실험적 오케스트레이션 테스트베드 'Scion'을 오픈소스로 공개했습니다. 이 플랫폼은 에이전트들을 각각 독립된 컨테이너, 깃 워크트리, 자격 증명으로 격리하여 충돌 없이 코딩, 감사, 테스트 등 병렬 작업을 수행하도록 지원합니다. 개발자는 제미나이(Gemini), 클로드 코드(Claude Code) 등 다양한 AI 에이전트를 통합 관리하며 복잡한 프로젝트를 효율적으로 자동화할 수 있습니다.